昨天聊到 Docker，知道可以把程式和它需要的環境一起整理起來
但我又突然想到一個問題
如果一個網站或 App 的使用者突然變得超多，那這麼多伺服器到底是怎麼管理的？
難道工程師要自己一台一台去開、去設定嗎？

如果今天突然有很多人同時使用，難道還要趕快跑去買新的電腦？
所以今天就來看看，雲端上的服務到底是怎麼被管理的

一、雲端服務真的只有一台伺服器嗎？
其實前幾天講到 Server 的時候，我們有提過
大型網站通常不會只靠一台伺服器運作
因為如果所有使用者都連到同一台伺服器
當使用人數突然增加時
這台伺服器就可能忙不過來

所以實際上的大型服務，通常會有很多台伺服器一起工作
例如一個網站突然有很多人同時登入
系統就可以把不同使用者的請求分配到不同的伺服器
這樣就不會讓所有工作全部集中在同一台設備上

二、那誰來決定使用者要去哪一台伺服器？
這時候就會出現一個很重要的概念
Load Balancer，負載平衡器
名字聽起來很專業
但其實概念沒有那麼難

可以把它想成餐廳門口的帶位人員
假設今天有三位服務生
如果所有客人都被帶去第一位服務生那邊
第一位可能忙到爆炸
另外兩位卻閒閒沒事

所以帶位的人會根據情況，把客人分配給不同的服務生
負載平衡器做的事情就有點像這樣
當使用者送出請求時
系統可以把請求分配到適合的伺服器
讓工作不要全部集中在同一個地方

三、如果使用者突然暴增怎麼辦？
這就是雲端服務很重要的一個地方！！
假設平常只有一萬人使用一個服務
但某一天突然因為活動或熱門事件
使用人數變成十萬、甚至更多
如果原本只有幾台伺服器
可能就會開始忙不過來
這時候就可以增加更多運算資源

這種根據需求增加或減少資源的概念，可以稱為 Scaling，擴展
例如使用量變大
→ 增加更多資源
使用量下降
→ 減少不需要的資源
這樣就不需要一直準備大量設備放在那裡等著

四、難道真的會自動增加伺服器嗎？
在現代的雲端環境裡
很多資源管理確實可以透過系統和設定自動完成

例如當系統發現目前的使用量已經很高
就可以根據設定增加運算資源
等到使用量下降
再減少資源
這就是常聽到的 Auto Scaling，自動擴展

所以工程師不一定需要每次都自己手動處理
可以先設定好規則
讓系統根據狀況進行調整
當然
這也不是代表工程師完全不用管
他們還是需要設定規則、監控系統、處理錯誤和確保服務正常運作

五、那這些伺服器到底是誰在管理？
這就回到我們前幾天講的 Cloud
很多公司會使用雲端服務提供商所提供的基礎設施

例如可以租用運算、儲存、資料庫和網路等資源
公司不一定需要自己買下一整座資料中心
而是可以根據自己的需求使用需要的資源

這也是雲端服務很方便的地方
不需要所有東西都自己從零開始建立
而是可以使用已經準備好的基礎設施

六、今天才發現，雲端其實不只是「把東西放上網路」
以前我會覺得
雲端就是把檔案放到網路上
但一路看到 Server、Data Center、Docker，再看到今天的內容
才發現雲端其實牽涉到很多不同的東西
伺服器負責運算
儲存設備負責保存資料
網路負責傳送資料
負載平衡可以協助分配請求
自動擴展則可以根據需求調整資源
這些東西一起運作
才讓我們平常使用的網站和 App 可以在很多人同時使用的情況下繼續運作

七、心得
今天才發現
原來我們平常看到的「一個 App」
背後可能根本不是一台電腦在工作
而是一整套會互相配合的系統
當使用者變多時
系統也可以透過不同方式調整資源
所以我們才可以很自然地打開 App、登入帳號、傳照片
即使背後同時可能有成千上萬的人正在做一模一樣的事情
以前覺得雲端很抽象
現在慢慢把 Server、Data Center、Docker 和這些概念串起來後
好像開始比較能想像
我們每天使用的網路服務，背後到底是怎麼撐起來的

⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯

明日預告

今天知道雲端服務可以透過很多方式管理大量的伺服器和使用者
但我又突然想到一個問題
如果這些服務背後有這麼多伺服器，那工程師到底要怎麼知道每一台現在有沒有正常工作？
總不可能每天跑進資料中心，一台一台看吧

那明天就來討論一下
「工程師到底怎麼監控這麼多伺服器」